Harness Learning Enables Generalizable Test-Time Adaptation
通过执行反馈学习可泛化的测试时自适应 Harness 修订
🧭 Agent harness 自适应与元学习 ★ 深度解读
Carnegie Mellon University · Johns Hopkins University
训练一个 proposer 用执行反馈修订 frozen solver 的 harness，实现无需参数更新的测试时自适应与跨任务泛化
📌 工作参考价值（4 点）
- 在电商/Agent 工作流里，可把「query 改写、检索重排、工具调用、结果校验」等串成可执行 harness，用一个较小的 proposer 模型（4B 足够）只改 harness 代码、不改主模型参数，测试时用业务反馈迭代修订，降低大模型频繁微调成本。
- 训练 proposer 时，反馈问题和打分问题要拆开：反馈用于构造下次 revision 的 execution report，打分用于 RL reward，避免 reward hacking；GRPO 的 reward 建议加上 edit validity 和可执行性 bonus，能明显降低无效 proposal 比例。
- 测试时不要只做 one-shot 修订：用 small proposal budget 做多轮 sequential revision，每轮基于 development score 保留当前最优 harness；论文在 QA 场景里 10 轮总预算 80 次 proposal 能超过独立 80 次 proposal 的 oracle best，适合在线 A/B 式自适应。
- 对多跳检索/问答类 pipeline，可学习让 harness 把「用于生成下一跳 query 的摘要」和「最终 answer 的证据」分离：query 生成用摘要，answer 直接读原始 passage，这种结构在跨域 QA 上更稳。